Interview mit SUPERRR Lab : Gerecht und inklusiv statt funkelnagelneu

Wie kann eine gerechtere digitale Zukunft aussehen? Diese Frage stellt sich SUPERRR Lab und entwirft zusammen mit Zivilgesellschaft, Tech-Industrie und politischen Entscheidungsträger:innen mögliche Antworten darauf. Gerade hat die Non-Profit-Organisation feministische Leitlinien veröffentlicht, die der Politik zeigen sollen, wie eine nachhaltigere und gleichberechtigtere Digital- und Technologiepolitik aussehen kann. Außerdem engagiert sich SUPERRR Lab für Grundrechte in der KI-Debatte und unterstützt Künstler:innen, Aktivist:innen und Technolog:innen mit einem Stipendienprogramm dabei, ihre eigenen Zukunftsentwürfe umzusetzen. netzpolitik.org hat mit der Geschäftsführerin und Mitgründerin von SUPERRR Lab, Julia Kloiber, darüber gesprochen, wie Digitalisierung in Zukunft aussehen sollte und warum wir dafür feministische Perspektiven brauchen.

netzpolitik.org: Mal ganz konkret: Wie würde eine gerechtere digitale Zukunft aussehen?

Julia Kloiber: In gerechteren digitalen Zukünften, wie wir sie uns vorstellen, verschiebt sich der Fokus von „Innovation um jeden Preis“ – sprich der Entwicklung von immer neuen digitalen Tools ohne Rücksicht auf die Umwelt und die Menschen – hin zu einer Kultur, die Acht darauf gibt, dass möglichst viele Menschen vom technologischen Fortschritt profitieren, ohne dabei ausgenutzt und in ihren Rechten eingeschränkt zu werden oder den Planeten auszubeuten. Die Prämisse ist nicht schneller, billiger und effizienter, sondern nachhaltig, achtsam und langfristig. Statt kommerzieller Interessen und Shareholder-Value stehen die Bedürfnisse von Menschen und Gesellschaften im Zentrum. Dazu muss sich grundlegend ändern, wie wir „Digitalisierung“ machen und wer sie gestaltet.

netzpolitik.org: Ein klarer Gegensatz zu aktuellen Innovationsnarrativen.

Julia Kloiber: Genau. In diesen Zukünften verstehen wir Digitalisierung nicht als rein technisches, sondern vor allem als gesellschaftliches und soziales Thema. Die Ergebnisse werden nicht „new und shiny“ sein, dafür aber mehr Menschen Teilhabe ermöglichen. Mit einer solchen Perspektive lautet die Antwort auf die meisten Fragen nicht „High-Tech“, sondern oft „No-Tech“ oder energieeffizientes „Low-Tech“ – weil klar wird, dass sich viele Herausforderungen wie die Klimakrise oder Armut nicht nur mit Technologie lösen lassen. Wie das konkret aussehen könnte, zeigen unsere 15 Zukunftsvisionen, die wir mit der Initiative Digitale Zivilgesellschaft und anderen zivilgesellschaftlichen Organisationen entwickelt haben.

netzpolitik.org: SUPERRR Lab soll das Potenzial neuer Technologien für eine gerechtere digitale Zukunft erforschen. Wie kann man sich das vorstellen?

Julia Kloiber: Wenn wir über Digitalisierung sprechen, dann neigen wir dazu, die Dinge entweder schwarz oder weiß zu sehen. Auf der einen Seite haben wir Erzählungen, die behaupten, dass sich alle Probleme lösen lassen, wenn wir nur die richtige Technologie dafür entwickeln. Demgegenüber stehen Narrative der zunehmenden Überwachung, Ausbeutung und Diskriminierung durch Technologie. Was die Dystopien und die Utopien gemein haben: Beide suggerieren, dass der technische Fortschritt unaufhaltsam ist und wir ihm ausgeliefert sind.

In unserer Arbeit interessieren wir uns für den Bereich zwischen diesen Extremen. Uns geht es darum, den binären Blick aufzubrechen und zu beleuchten, welche sozialen, wirtschaftlichen und gesellschaftlichen Kräfte im Spiel sind, wenn Technologie Gutes oder Schlechtes hervorbringt. Wir fragen zum Beispiel: Was sind die Ursachen dafür, dass algorithmische Systeme diskriminieren? Und wie können wir daraus lernen, um es beim nächsten Mal besser zu machen? Dabei wollen wir nicht nur analysieren, kritisch hinterfragen und Schadensbegrenzung betreiben, sondern vor allem neue Narrative von Digitalisierung entwerfen, bei denen die Interessen der Gesellschaft im Zentrum stehen.

netzpolitik.org: Wie schafft ihr das?

Julia Kloiber: In unseren Projekten erproben wir wünschenswerte digitale Zukünfte. Im Herbst 2021 haben wir zum Beispiel angefangen, gemeinsam mit dem Bundesministerium für Justiz und einer diversen Gruppe an Stakeholdern zu diskutieren, wie digitale öffentliche Räume der Zukunft gestaltet sein sollten. Dabei gibt es oft keine leichten Antworten. Deshalb versuchen wir es mit einem ganzheitlichen Ansatz: Was können wir von den öffentlichen Räumen in unseren Städten lernen, was wir im Digitalen auch wollen – und was nicht? Welche unabhängigen digitalen Infrastrukturen brauchen wir in Zukunft? Außerdem interessiert uns, welche Machtstrukturen aufgebrochen werden müssen, um Veränderung überhaupt erst möglich zu machen.

netzpolitik.org: Das klingt, als würde Technologie gar keine so große Rolle mehr spielen.

Julia Kloiber: Das kommt auf die Herausforderung an. Wir sollten es aber vermeiden, alles durch die Technologiebrille zu sehen. Wir sehen ja, was herauskommt, wenn die Technologie ins Zentrum gerückt wird: Dann werden technische Lösungen entwickelt, die auf der Suche nach einem Problem sind. Ein prominentes Beispiel ist Blockchain-Technologie, bei der die Entwickler:innen laufend auf der Suche nach guten Anwendungsfällen sind. Neuestes Buzzword: web3.

Um zu Lösungen zu kommen, müssen wir zuerst verstehen, welche Herausforderungen wir eigentlich lösen wollen. Dazu ist es wichtig, die Ursachen der Probleme im Detail zu verstehen. Was führt in unseren Gesellschaften zu Bildungsungerechtigkeit, zu Exklusion oder zu Rassismus? Wenn man so vorgeht, merkt man schnell, dass digitale Werkzeuge, wenn überhaupt, nur eine begrenzte Rolle bei der Lösung dieser Probleme spielen können.

„Technologie ist immer Produkt ihrer Gesellschaft“

netzpolitik.org: Ihr schreibt, dass digitale Technologien wie künstliche Intelligenz, Gesichtserkennung, Kreditwürdigkeitsprüfung und Social Scoring Randgruppen benachteiligen. Wie können Technologien diskriminieren?

Julia Kloiber: Technologie ist immer ein Produkt ihrer Gesellschaft. Wenn in einer Gesellschaft, wie in unserer, Rassismus, Misogynie und Hass auf queere Menschen existieren, dann verstärkt die Technologie oft nur das, was ohnehin schon da ist. Einen einfachen technologischen Ausweg aus dem Dilemma gibt es nicht.

netzpolitik.org: Warum nicht?

Julia Kloiber: Auch wenn wir diskriminierungsfreie KI und Technologien gestalten – also zum Beispiel die Gesichtserkennungssoftware, die auf alle Hautfarben gleichermaßen optimiert ist oder das Recruiting-Tool, das kein Geschlecht kennt – wird das immer nur bis zu einem gewissen Grad funktionieren. Denn wenn algorithmische Systeme anfangen auf Basis von sogenannten Proxies zu diskriminieren und die optimierte Gesichtserkennungssoftware dafür eingesetzt wird, in sozial benachteiligten Stadtteilen nach Straftäter:innen zu fahnden, dann ist man ganz schnell wieder da, wo man bestehende Diskriminierungsmuster verstärkt.

netzpolitik.org: Was kann man tun gegen solche Diskriminierung?

Julia Kloiber: Es gibt Menschenrechte und diese sollten bei der Regulierung von Technologie an erster Stelle stehen. Wenn eine neue Technologie ein Risiko für unsere Grundrechte darstellt, dann sollten sie gar nicht erst zum Einsatz kommen.

netzpolitik.org: Ist das Aufgabe der Politik?

Julia Kloiber: Regulierung ist natürlich nicht die einzige, aber eben eine sehr effiziente Antwort. Oft sind es zivilgesellschaftliche Akteure, die auf Grundrechtseinschränkungen aufmerksam machen und wichtige Aufklärungs- und Forschungsarbeit leisten. Ihnen gegenüber stehen Digitalkonzerne, die hunderte von Millionen für Lobbying von Regierungen ausgeben und versuchen die Politik zu beeinflussen.

netzpolitik.org: Die Gruppe der Menschen, die das Internet und technologische Anwendungen gestaltet, ist oft homogen und vorwiegend männlich. Brauchen wir mehr Gleichberechtigung, wenn es um die Gestaltung des Internets geht?

Julia Kloiber: Es ist interessant zu hinterfragen, woher die Vorstellung kommt, dass in der Regel weiße Männer in Garagen oder Laboren Technologie entwickeln. Diese Erzählung wurde damit aufrechterhalten, dass man die Beiträge von Frauen und nicht-binären, LGBTIQ+- und BPoC-Personen [Anmerkung der Redaktion: Black, Indigenious and People of Color] und -Gemeinschaften ignoriert hat. Dass sich dieses Narrativ erst langsam geraderückt, können wir daran sehen, dass jetzt auch Pionier:innen aus den Anfängen der Computerentwicklung wieder Einzug in die Geschichte finden.

Auch lesen wir heute oft, dass Teams mit diverser Besetzung bessere Ergebnisse liefern, weil sie unterschiedliche Erfahrungen, Lebensrealitäten und Bedürfnisse mit einbringen. Das mag in Ansätzen auch stimmen, trotzdem darf man nicht außer Acht lassen, dass die Machtstrukturen, in denen diese Teams arbeiten, eine entscheidende Rolle für den Erfolg spielen. Wenn sich daran nichts ändert, müssen wir noch lange auf die erhoffte Verbesserung warten. Im schlimmsten Fall kann das dazu führen, dass Menschen wieder aufgeben, bevor sie wirklich mitgestalten können.

Mit einer feministischen Technologiepolitik zu einer gerechteren Zukunft

netzpolitik.org: Für euer neues Projekt habt ihr einen Rahmen für eine feministische Technologiepolitik entwickelt. Damit wollt ihr Diskurse über Tech-Policy ganz gezielt beeinflussen. Wie kann man sich das vorstellen?

Julia Kloiber: Unser Framework soll dabei helfen, bestehende Strukturen zu analysieren, über sie hinauszudenken und die gesamtgesellschaftlichen Auswirkungen von neuen Technologien besser zu verstehen – vor allem in Hinblick auf intersektionale Diskriminierungsmuster. Dafür haben wir zusammen mit 25 internationalen Expert:innen Leitlinien für eine Digitalisierung entwickelt, die auf den Werten Gleichberechtigung, Offenheit und Chancengerechtigkeit beruhen. Die Leitlinien zeigen auf, was passieren muss, damit Menschen alle gesellschaftlichen Gruppen gleichberechtigt von der Digitalisierung profitieren.

netzpolitik.org: Hast du ein Beispiel?

Julia Kloiber: Informierter Consent. Aktuell haben wir zwar Vorschriften wie die Datenschutz-Grundverordnung. Das Resultat ist eine Masse an Cookie-Bannern und Pop-Ups, über die unsere Zustimmung als Gegenleistung für den Zugang zu wichtigen Produkten und Dienstleistungen verlangt wird. Sie sind nur selten klar und verständlich und nutzen ein Design, dass uns dazu verleitet, einfach auf „Okay“ zu klicken. Sinnvolle Einwilligungen sollten freiwillig (wir haben eine echte Wahl), informiert (wir verfügen über ausreichende Informationen, um zu entscheiden, ob wir einwilligen oder nicht) und reversibel (wir können unsere Einwilligung jederzeit zurückziehen) sein. Sie sind nach wie vor selten, sollten aber Standard sein.

netzpolitik.org: Das Konzept der Intersektionalität spielt in vielen aktuellen feministische Ansätzen eine zentrale Rolle. Was versteht man darunter?

Julia Kloiber: Um diesem Thema in seiner ganzen Tiefe gerecht zu werden, braucht man mehr als drei schnelle Sätze in einem Interview. Ich empfehle die Texte und die Definitionen vom Center for Intersectional Justice von Emilia Roig. Intersektionalität beschreibt, wie sich Systeme der Ungerechtigkeit überschneiden. Eine Transfrau mit Migrationshintergrund kann in unserer Gesellschaft auf mehreren Ebenen diskriminiert werden – auch von technologischen Systemen. Es gilt die unterschiedlichen Dimensionen von Diskriminierung zu beleuchten und zu analysieren, um sie besser bekämpfen zu können.

netzpolitik.org: Warum brauchen wir überhaupt feministische Perspektiven, wenn wir über die Zukunft der Digitalisierung sprechen?

Julia Kloiber: Eine intersektional feministische Perspektive weitet den Blick, indem sie den Fokus von der Technologie hin zu systemischen Problemen und Herausforderungen unserer Gesellschaft lenkt. Feminismus hilft uns zu verstehen, wie Patriarchat, Kolonialismus und Kapitalismus unsere Welt prägen – und welche Ungerechtigkeiten sich daraus ergeben. Wenn wir die Digitalisierung gewinnbringend für die Gesellschaft gestalten wollen, dann ist es unumgänglich diese Perspektive einzunehmen.

netzpolitik.org: Vor zwei Jahren habt ihr mit einem Feminist Tech Fellowship euer Stipendiat:innen-Programm gestartet. Letztes Jahr gab es mit „The New New“ wieder ein Förderprogramm. Wen habt ihr mit dem Programm unterstützt und warum?

Julia Kloiber: Bei unserem Fellowship-Programm The New New, ging es darum, Initiativen und Individuen zu fördern, die alternative digitale Zukünfte entwerfen. Darunter war zum Beispiel Chayn aus Italien, ein Projekt, das Tools für Frauen entwickelt hat, die von sexualisierter Gewalt betroffen sind. Außerdem haben wir HammamRadio, ein Grassroot-Radio-Projekt gefördert, das sich mit Feminismus im arabischen Raum beschäftigt und gleichzeitig eine Austauschplattform für Frauen* ist. Auch spannend war das Projekt Syb aus Großbritannien. Dafür hat die Organisation Feminist Internet einen Chatbot entwickelt, der sich spezifisch an die Bedürfnisse der Trans-Community anpasst. Das erste Jahr des Fellowships war ein großer Erfolg. Wir hoffen, dass wir es auch 2022 weiterführen können.

netzpolitik.org: Was habt ihr euch sonst noch für 2022 vorgenommen?

Julia Kloiber: Wir wollen uns aus einer zivilgesellschaftlichen Perspektive heraus stärker mit strategischen Zukunftsfragen beschäftigen – SUPERRR Lab soll zu einer zivilgesellschaftlichen Foresight-Organisation werden. Neben Organisationen wie AlgorithmWatch.org oder der Digitalen Gesellschaft, die wichtige Aufklärungs- und Policy-Arbeit im Digitalbereich leisten, sehen wir einen Mangel an Organisationen, die an Zukunftsentwürfen für eine gerechte und nachhaltige Digitalisierung arbeiten. Die neue Erzählungen entwickeln, sich mit strategischen Zukunftsfragen beschäftigen und mit neuen Formaten und Methoden, politischen Entscheidungsträger:innen und zivilgesellschaftlichen Akteur:innen dabei helfen, bei Digitalthemen über den Tellerrand zu schauen und vorausschauende, zukunftsfähige Entscheidungen zu treffen.

Bisher bezieht sich die Abschätzung davon, welche Folgen die Technik haben wird, vor allem auf die Ebene von Individuen. Was fehlt, ist nicht nur eine gesamtgesellschaftliche, vorausschauende Betrachtung der Auswirkungen neuer Technologien, sondern auch Methoden, wie man diese messen und abschätzen kann. Da wollen wir ansetzen. Die von uns entwickelte Feminist Tech Policy wird eine wichtige Grundlage für diese Arbeit sein.